Tháng 12 năm 1948, sau nhiều lần thuyết phục gia đình, ông được xin vào công tác tại Ty Công an Đắc Lắc khi mới 14 tuổi. Do còn quá nhỏ, ông chỉ được phân công làm nhiệm vụ nấu cơm, cấp dưỡng; về sau do tính lanh lợi, biết bơi, cưỡi ngựa, ông được cấp trên chuyển sang làm công tác liên lạc. Không lâu sau, do từng được đi học trước năm 1945, tháng 1 năm 1949, ông được điều về làm văn thư bảo mật cho Ủy ban Kháng chiến Hành chính Đắc Lắc. Tháng 10 năm đó, ông sang Tỉnh đội Đắc Lắc làm công tác văn thư.

Dù thể hiện ý nguyện được tham gia chiến đấu, nhưng ông nhiều lần bị từ chối vì còn quá nhỏ. Mãi đến năm 18 tuổi, tháng 7 năm 1952, ông mới được chính thức nhập ngũ và là chiến sĩ văn thư Ban Chính trị Trung đoàn 84 Nơ Trang Long Liên khu 5. Từ tháng 1 năm 1953, ông lần lượt là chiến sĩ, tiểu đội phó, tiểu đội trưởng thuộc Đại đội 602, Tiểu đoàn 30, Trung đoàn 96, Đại đoàn 305. Kể từ khi tham gia đánh trận đầu, Trận đèo An Khê, trên đường 19, cho đến khi ngừng bắn năm 1954, ông đã tham gia chiến đấu trên 10 trận từ Pleiku đến Quy Nhơn và dọc tuyến đường số 1 từ Nha Trang đến Quảng Nam, bắt sống 6 tù binh, trong đó có một lính Pháp.